Thị xã Phú Thọ chính thức được thành lập vào ngày 5 tháng 5 năm 1903 trên cơ sở làng Phú Thọ.

Ngày nay, thị xã Phú Thọ tuy không phải là trung tâm kinh tế - chính trị của tỉnh nhưng với bề dày truyền thống phát triển, đã từng là trung tâm tỉnh lỵ của Phú Thọ từ ngay đầu thế kỷ XX, là nơi trung chuyển, nối liền vùng Tây Bắc với Đồng bằng Bắc bộ nên có những tiềm năng dồi dào để bứt phá theo kịp xu thế phát triển chung của hội nhập kinh tế quốc tế nói chung và khu vực nói riêng.

Thị xã Phú Thọ nằm bên bờ tả ngạn sông Hồng.

Sau 100 năm thành lập, thị xã đã được mở rộng về nhiều mặt, quan trọng nhất là về diện tích.

Thị xã Phú Thọ có lịch sử hình thành và phát triển từ rất lâu đời. Trên địa bàn thị xã Phú Thọ ngày nay, xa xưa là Ma thành (sau gọi là thành Mè) do Ma Xuân (cháu chắt của Ma Khê) xây dựng. Hậu duệ của Ma Khê cầm đầu Ma tộc truyền đời trấn giữ thành Mè. Đến thời Loạn 12 sứ quân, thành Mè do Ma Xuân Trường trấn giữ dưới quyền kiểm soát của sứ quân Kiều Thuận. Sau khi thành Hồi Hồ thất thủ, tướng quân Kiều Thuận chạy sang thành Mè kết hợp với Ma Xuân Trường chống lại Đinh Bộ Lĩnh. Đinh Bộ Lĩnh đánh chiếm thành Mè, Kiều Thuận tử trận. Ma Xuân Trường trốn thoát. Sau khi mất được Đinh Bộ Lĩnh vì thán phục uy đức mà truy phong ông là Ma tộc thần tướng. Ngày nay, thị xã Phú Thọ còn dấu tích thành Mè. Ở phố Phú An có đền thờ Ma Khê. Làng Trù Mật xã Văn Lung thị xã Phú Thọ có đền Trù Mật thờ Ma Xuân Trường và Kiều Thuận.

Ngày 4 tháng 2 năm 1967, sáp nhập hai xã Văn Lung, Hà Lộc thuộc huyện Lâm Thao và xã Trường Thịnh thuộc huyện Thanh Ba vào thị xã Phú Thọ.[3]

Sau năm 1975, thị xã Phú Thọ có 3 phường: Âu Cơ, Hùng Vương, Phong Châu và 3 xã: Hà Lộc, Trường Thịnh, Văn Lung.

Ngày 5 tháng 7 năm 1977, chuyển xã Thanh Minh thuộc huyện Thanh Ba về thị xã Phú Thọ quản lý.[4]

Ngày 1 tháng 4 năm 2003, thị xã Phú Thọ được mở rộng trên cơ sở sáp nhập thị trấn Phú Hộ thuộc huyện Phù Ninh, xã Hà Thạch thuộc huyện Lâm Thao và 413,91 ha diện tích tự nhiên và 3.178 nhân khẩu của thôn Thanh Vinh, xã Thanh Hà thuộc huyện Thanh Ba[5]. Đồng thời, thành lập các phường, xã mới thuộc thị xã Phú Thọ:

• Giải thể thị trấn Phú Hộ để thành lập xã Phú Hộ trên cơ sở toàn bộ diện tích tự nhiên và dân số của thị trấn Phú Hộ.
• Thành lập xã Thanh Vinh trên cơ sở 413,91 ha diện tích tự nhiên và 3.178 nhân khẩu của xã Thanh Hà.
• Chuyển xã Trường Thịnh thành phường Trường Thịnh.

Ngày 29 tháng 12 năm 2010, thị xã Phú Thọ được công nhận là đô thị loại III theo Quyết định số 1144/QĐ-BXD của Bộ Xây dựng.[1]

Ngày 23 tháng 7 năm 2013, chuyển xã Thanh Vinh thành phường Thanh Vinh.[6]

Ngày 17 tháng 12 năm 2019, giải thể phường Trường Thịnh, địa bàn sáp nhập vào các phường Phong Châu, Hùng Vương và xã Thanh Minh.[7]

Thị xã Phú Thọ có 4 phường và 5 xã như hiện nay.